NVIDIA H100 SXM5 80 GB

NVIDIA H100 SXM5 80 GB — 80 Гб HBM3, 16,896 ядер, GPI 56.4

Loading...

Performance Rating

The H100 SXM5 80 GB was a professional graphics card by NVIDIA, launched in October 2022. Built on the 5 nm process, and based on the GH100 graphics processor, the card does not support DirectX. Since H100 SXM5 80 GB does not support DirectX 11 or DirectX 12, it might not be able to run all the latest games. The GH100 graphics processor is a large chip with a die area of 814 mm² and 80,000 million transistors. It features 16896 shading units, 528 texture mapping units, and 24 ROPs. Also included are 528 tensor cores which help improve the speed of machine learning applications. NVIDIA has paired 80 GB HBM3 memory with the H100 SXM5 80 GB, which are connected using a 5120-bit memory interface. The GPU is operating at a frequency of 1590 MHz, which can be boosted up to 1980 MHz, memory is running at 1313 MHz.

A100 A100
H200 H200
MI325X MI325X

NVIDIA H100 SXM5 80 GB

56.4

NVIDIA H100 SXM5 80 GB

56.4

Memory

Memory Size

80 GB

Memory Type

Memory Bandwidth

3.36 TB/s

Memory Bus Width

5,120 бит

ML Performance

FP16 (Half Precision)

267.6 TFLOPS

BF16 (Brain Float)

No TFLOPS
311.84 TFLOPS
(NVIDIA A800 SXM4 80 GB)

TF32 (TensorFloat)

Compute Power

FP32 (Single Precision)

66.91 TFLOPS

FP64 (Double Precision)

33.45 TFLOPS

CUDA Cores

Architecture & Compatibility

GPU Architecture

SM (Streaming Multiprocessor)

PCIe Version

PCIe 5.0 x16

ML Software Support

CUDA Version

Clocks & Performance

Base Clock

Boost Clock

Memory Clock

Power Consumption

Recommended PSU

Power Connector

None

TDP/TGP

700 W
unknown
(NVIDIA CMP 70HX)

Rendering

Texture Units (TMU)

L2 Cache

50 MB

Benchmarks

MLPerf, mixtral-8x7b (fp8)

6 362 tokens/s
7 132 tokens/s
(NVIDIA H200 SXM 141 GB)

Additional

Slots

SXM Module
SXM Module
(NVIDIA B300)

Release Date

Oct. 13, 2022
March 12, 2026
(Intel Arc B770)

Display Outputs

No outputs
Portable Device Dependent
(NVIDIA GeForce RTX 5090 Mobile)

FAQ

Для каких задач подходит NVIDIA H100 SXM5 80 GB?

NVIDIA H100 SXM5 80 GB предназначена для высокопроизводительных вычислений, машинного обучения, искусственного интеллекта, научных вычислений и рендеринга. Она идеально подходит для крупных организаций, исследовательских центров и компаний, занимающихся разработкой сложных моделей и алгоритмов.

С какими конкурентами сравнить и чем отличается эта видеокарта?

Сравните NVIDIA H100 SXM5 80 GB с аналогичными продуктами от AMD, такими как Radeon Instinct MI250X или более новыми моделями серии Radeon Instinct MI300. H100 отличается высокой пропускной способностью, большим объемом памяти и более высокой эффективностью в вычислениях FP32 и FP64, что делает его предпочтительным выбором для задач машинного обучения и научных вычислений.

Достаточно ли питания и охлаждения для этой карты?

Для NVIDIA H100 SXM5 80 GB требуется мощный блок питания и надежное охлаждение. Минимальные требования к блоку питания составляют 1200 Вт, но рекомендуется использовать блок питания на 1400-1600 Вт для обеспечения стабильной работы. Охлаждение также должно быть эффективным, чтобы справиться с высоким тепловыделением карты. Рекомендуется использовать систему жидкостного охлаждения или мощную воздушную систему охлаждения.

Стоит ли брать эту карту в 2025-2026 году?

В 2025-2026 году NVIDIA H100 SXM5 80 GB будет оставаться актуальной для многих задач, особенно в области машинного обучения и научных вычислений. Однако стоит учитывать, что новые поколения видеокарт могут появиться с улучшенными характеристиками. Если вам нужны самые передовые технологии и вы не планируете обновлять оборудование в ближайшие годы, то это отличный выбор. Если же вы оцениваете текущие тренды и ожидаете скорого обновления, возможно, стоит подождать несколько месяцев.

Recommendations

Эта видеокарта идеально подходит для обработки больших объемов данных, машинного обучения и искусственного интеллекта из-за огромной памяти и высокой пропускной способности. Также она будет эффективна для научных вычислений и рендеринга сложных 3D моделей. Для гейминга или офисных задач она будет перебором.

Renting is cheaper than buying